Mescid-i Aksa'yı ilk inşa eden kişi veya dönem hakkında kesin bir bilgi bulunmamaktadır. Farklı rivayetler ve tarihi kaynaklar farklı görüşler sunmaktadır:
İslamî kaynaklara göre: Hz. Adem'in (https://www.nedemek.page/kavramlar/hz.%20adem) temellerini attığı, daha sonra Hz. İbrahim (https://www.nedemek.page/kavramlar/hz.%20ibrahim) tarafından yeniden inşa edildiği ve Hz. Süleyman'ın (https://www.nedemek.page/kavramlar/hz.%20süleyman) ise kapsamlı bir şekilde yenileyip genişlettiği kabul edilir.
Bazı arkeolojik ve tarihî görüşlere göre: Mescid-i Aksa'nın bulunduğu alanda daha önceden de tapınakların veya kutsal mekanların olduğu ve farklı medeniyetler tarafından kullanıldığı düşünülmektedir. Bu görüşe göre, mevcut yapının inşası Emevi Halifesi Abdülmelik bin Mervan (https://www.nedemek.page/kavramlar/emevi%20halifesi) döneminde başlamış ve oğlu Velid bin Abdülmelik (https://www.nedemek.page/kavramlar/velid%20bin%20abdülmelik) zamanında tamamlanmıştır.